Giúp nhà Đinh

Khi Đinh Bộ Lĩnh dấy binh dẹp loạn 12 sứ quân, Phạm Hạp cùng em trai đem hơn 2000 người, ngựa từ quê đến Hoa Lư phò Đinh Bộ Lĩnh. Đinh Bộ Lĩnh đã thu nhận và đều phong hai anh em ông làm tướng tiên phong đi dẹp loạn. Phạm Hạp được phong Tả tướng tham mưu. Chiến công lớn nhất của Phạm Hạp chính là người đánh bại và chém chết sứ quân Nguyễn Khoan ở Tam Đái.

Năm Mậu Thìn (968), dẹp xong loạn 12 sứ quân, Đinh Bộ Lĩnh lên ngôi Hoàng đế, tức là Đinh Tiên Hoàng Đế, đặt Quốc hiệu là Đại Cồ Việt, đóng đô ở Hoa Lư. Phạm Hạp được phong chức quan Vệ Úy, là quan thân cận của vua.

Tận trung với nhà Đinh

Năm 979, vua Đinh và Nam Việt vương Liễn bị sát hại (xem bài về Đinh Tiên Hoàng), Vệ vương Đinh Toàn mới 6 tuổi được lập lên ngôi. Các đại thần Đinh Điền, Nguyễn Bặc và Phạm Hạp thấy uy quyền của Phó vương Lê Hoàn quá lớn bèn khởi binh chống Lê Hoàn nhưng cả ba tướng nhanh chóng bị Lê Hoàn dẹp tan.

Trong danh sách các tướng nhà Đinh có tới 25 vị tướng là các đại thần tận trung với nhà Đinh, phản đổi việc Lê Hoàn đoạt ngôi nhà Đinh là: Đinh Điền, Đinh Sài Bơi, Đỗ Quang, Đỗ Huy, Lý Phả, Lý Hoằng, Lý Quảng, Nguyễn Bặc, Phạm Hạp, Trình Minh, Trịnh Tú, Lưu Lang, Lý Đài, Lý Trâu, Lý Quốc, Lương Tuấn, Võ Trung và 8 vị quan trung thần ở phủ Khống Tràng An.

Phạm Hạp bị Lê Hoàn xử tử. Tuy vậy, em trai ông là Phạm Cự Lạng vẫn được Lê Hoàn tin dùng làm tướng dưới quyền.